The deployment flexibility and maneuverability of Unmanned Aerial Vehicles (UAVs) increased their adoption in various applications, such as wildfire tracking, border monitoring, etc. In many critical applications, UAVs capture images and other sensory data and then send the captured data to remote servers for inference and data processing tasks. However, this approach is not always practical in real-time applications due to the connection instability, limited bandwidth, and end-to-end latency. One promising solution is to divide the inference requests into multiple parts (layers or segments), with each part being executed in a different UAV based on the available resources. Furthermore, some applications require the UAVs to traverse certain areas and capture incidents; thus, planning their paths becomes critical particularly, to reduce the latency of making the collaborative inference process. Specifically, planning the UAVs trajectory can reduce the data transmission latency by communicating with devices in the same proximity while mitigating the transmission interference. This work aims to design a model for distributed collaborative inference requests and path planning in a UAV swarm while respecting the resource constraints due to the computational load and memory usage of the inference requests. The model is formulated as an optimization problem and aims to minimize latency. The formulated problem is NP-hard so finding the optimal solution is quite complex; thus, this paper introduces a real-time and dynamic solution for online applications using deep reinforcement learning. We conduct extensive simulations and compare our results to the-state-of-the-art studies demonstrating that our model outperforms the competing models.
translated by 谷歌翻译
尽管深度神经网络(DNN)已成为多个无处不在的应用程序的骨干技术,但它们在资源受限的机器中的部署,例如物联网(IoT)设备,仍然具有挑战性。为了满足这种范式的资源要求,引入了与IoT协同作用的深入推断。但是,DNN网络的分布遭受严重的数据泄漏。已经提出了各种威胁,包括黑盒攻击,恶意参与者可以恢复送入其设备的任意输入。尽管许多对策旨在实现隐私的DNN,但其中大多数会导致额外的计算和较低的准确性。在本文中,我们提出了一种方法,该方法通过重新考虑分配策略而无需牺牲模型性能来针对协作深度推断的安全性。特别是,我们检查了使该模型容易受到黑盒威胁的不同DNN分区,并得出了应分配每个设备的数据量以隐藏原始输入的所有权。我们将这种方法制定为一种优化,在该方法中,我们在共同推导的延迟与数据级别的数据级别之间建立了权衡。接下来,为了放大最佳解决方案,我们将方法塑造为支持异质设备以及多个DNN/数据集的增强学习(RL)设计。
translated by 谷歌翻译
移动边缘学习(MEL)是一种学习范例,可以通过异构边缘设备(例如,IOT设备)来实现对机器学习模型的分布式训练。 Multi-Orchestrator MEL是指具有不同数据集的多个学习任务的共存,每个学习任务由Orchestrator管理,以便于分布式训练过程。在MEL中,培训性能恶化而不提供足够的培训数据或计算资源。因此,激励边缘设备成为学习者并提供其计算资源至关重要,并且提供他们的私人数据或从协调仪接收所需的数据并参与学习任务的培训过程。在这项工作中,我们提出了一种激励机制,我们制定了协调员 - 学习者的互动作为一个2轮Stackelberg游戏,以激励学习者的参与。在第一轮中,学习者决定哪些学习任务从事参与,然后在第二轮培训的数据量,以便他们的效用最大化。然后我们分析游戏并导致学习者的最佳策略。最后,已经进行了数值实验以评估提出的激励机制的性能。
translated by 谷歌翻译
人工智能(AI)见证了各种物联网(IoT)应用和服务的重大突破,从推荐系统到机器人控制和军事监视。这是由更容易访问感官数据的驱动以及生成实时数据流的Zettabytes(ZB)的普遍/普遍存在的设备的巨大范围。使用此类数据流来设计准确的模型,以预测未来的见解并彻底改变决策过程,将普遍的系统启动为有价值的范式,以实现更好的生活质量。普遍的计算和人工智能的汇合普遍AI的汇合将无处不在的物联网系统的作用从主要是数据收集到执行分布式计算,并具有集中学习的有希望的替代方案,带来了各种挑战。在这种情况下,应设想在物联网设备(例如智能手机,智能车辆)和基础架构(例如边缘节点和基站)之间进行明智的合作和资源调度,以避免跨越开销和计算计算并确保最大的性能。在本文中,我们对在普遍AI系统中克服这些资源挑战开发的最新技术进行了全面的调查。具体而言,我们首先介绍了普遍的计算,其架构以及与人工智能的相交。然后,我们回顾AI的背景,应用和性能指标,尤其是深度学习(DL)和在线学习,在无处不在的系统中运行。接下来,我们从算法和系统观点,分布式推理,培训和在线学习任务中,对物联网设备,边缘设备和云服务器的组合进行了分布式推理,培训和在线学习任务的深入文献综述。最后,我们讨论我们的未来愿景和研究挑战。
translated by 谷歌翻译
近年来,卷积神经网络(CNN)证明了它们在许多领域解决问题的能力,并且以前无法进行准确性。但是,这带有广泛的计算要求,这使得普通CPU无法提供所需的实时性能。同时,FPGA对加速CNN推断的兴趣激增。这是由于他们有能力创建具有不同级别的并行性的自定义设计。此外,与GPU相比,FPGA提供每瓦的性能更好。基于FPGA的CNN加速器的当前趋势是实现多个卷积层处理器(CLP),每个处理器都针对一层层量身定制。但是,CNN体系结构的日益增长的复杂性使得优化目标FPGA设备上可用的资源,以使最佳性能更具挑战性。在本文中,我们提出了CNN加速器和随附的自动设计方法,该方法采用元启发式学来分区可用的FPGA资源来设计多CLP加速器。具体而言,提出的设计工具采用模拟退火(SA)和禁忌搜索(TS)算法来查找所需的CLP数量及其各自的配置,以在给定的目标FPGA设备上实现最佳性能。在这里,重点是关键规格和硬件资源,包括数字信号处理器,阻止RAM和芯片内存储器带宽。提出了使用四个众所周知的基准CNN的实验结果和比较,表明所提出的加速框架既令人鼓舞又有前途。基于SA-/TS的多CLP比在加速Alexnet,Squeezenet 1.1,VGGNET和Googlenet架构上的最新单个/多CLP方法高1.31x-2.37倍高2.37倍。和VC709 FPGA板。
translated by 谷歌翻译
群机器人执行觅食任务的适用性受其紧凑的尺寸和成本的启发。需要相当大量的能量来执行这些任务,特别是如果任务是连续和/或重复的。现实世界的情况,其中机器人在保持活力(生存能力)时连续执行任务,并最大限度地提高生产(性能)需要能量意识。本文提出了一种能够有意识的分布式任务分配算法来解决连续任务(例如,无限觅食),用于合作机器人以实现高效的任务。当食物返回收集箱时,我们将效率视为机器人在勘探和收集期间消耗的能量的函数。最后,所提出的节能算法最小化了充电站的总传输时间和在充电时消耗的时间消耗,最大化机器人的寿命,以执行最大的任务,以提高协作机器人的整体效率。我们对典型的贪婪基准战略(将最近的收藏箱分配给可用机器人的最近的收集箱并最大充电)效率和性能在各种方案中的效率和性能。拟议的方法显着提高了基线方法的性能和效率。
translated by 谷歌翻译
自适应信息采样方法能够有效选择移动机器人的航点,可以获得可以获得物理过程的精确感测和映射,例如辐射或场强。本文分析了勘探和利用在环境过程的这种信息化空间采样中的作用。我们使用高斯过程来预测和估计利用置信度的预测,从而在勘探和剥削方面确定每个点的信息。具体地,我们使用高斯过程回归模型来对环境的Wi-Fi信号强度进行采样。对于信息功能的不同变体,我们广泛地分析和评估了通过单个机器人和多机器人设置中的两个不同初始轨迹的信息映射的有效性和效率。结果在基于采样目标选择适当的信息功能方面提供了有意义的见解。
translated by 谷歌翻译